即時快訊
手遊專用AI變聲耳機問世 主打300毫秒即時轉換角色音 AI挖洞、駭客攻產線!AIoT設備成資安破口 CRA合規刻不容緩 第九屆物聯網安全高峰論壇12/2登場 宥宥婦幼深耕蘆洲20年 兩位女醫師加入婦科團隊 台灣媽媽把營養軟糖做到全球40國 Herbaland禾寶藍寫下加拿大創業故事 IT管理大廠Kaseya推MCP伺服器 直連AI模型搶攻維運自動化 以太幣重挫跌破 1,800 美元 鏈上數據曝散戶斷頭與巨鯨逢低建倉分歧 破除企業AI部署即停滯痛點 新創募資1.1億美元主打持續自我優化 24家加密庫存企業市值跌破持幣價值 溢價買幣模式亮紅燈 打造AI旅遊規劃助理 美國新創獲凱鵬華盈領投1200萬美元 摩根大通打造單一AI模型 信用卡詐欺偵測率大增85%
圖/本報AI製圖(示意圖)
科技生活

·6 個月前·林昭衡
#AI安全#特朗普政府#AI模型#美國商務部
圖/本報AI製圖(示意圖)
圖/本報AI製圖(示意圖)
商傳媒|林昭衡/綜合外電報導
摘要

微軟、Google與xAI等主要人工智慧公司,今日同意向美國特朗普政府提供其最新AI模型的早期存取權,以利Center for AI Standards and Innovation (CAISI)在模型公開前進行國家安全風險評估與能力檢測。

微軟(Microsoft)、Alphabet公司的Google以及馬斯克(Elon Musk)旗下的xAI等主要人工智慧(AI)公司,今日同意向美國特朗普政府提供其最新AI模型的早期存取權。這項協議旨在讓美國商務部轄下的Center for AI Standards and Innovation (CAISI)能在這些模型公開發布前,先行檢測其能力與潛在國家安全風險。

根據CAISI的公告,該機構將審查並研究這些AI模型,以評估其性能和安全隱患。CAISI已執行逾40次AI模型評估,其中不乏尚未公開發表的先進模型。開發商通常會提供移除安全防護措施(safety guardrails)的版本,讓CAISI能更徹底地評估國安風險。這項新協議是美國政府與AI產業合作的延續,此前CAISI在2024年,當時仍名為U.S. Artificial Intelligence Safety Institute時,已與OpenAI和Anthropic達成類似協議。

美國政府對AI國安風險的關注持續升溫。上週,五角大廈的技術長Emil Michael特別點出Anthropic的Claude模型潛在的安全風險,同時也提及另一款名為Mythos的AI模型在網路安全方面的先進能力,能辨識並修正網路漏洞。同一天,美國國防部也宣布與包括Alphabet公司的Google、OpenAI、輝達(Nvidia Corp)、微軟、亞馬遜(Amazon)、SpaceX以及新創公司Reflection AI, Inc.等七家企業簽署協議,將在獲准的作業用途下,於該部門的機密網路中部署其技術,以實現系統與能力的多元化。

Alphabet全球事務總裁肯特·沃克(Kent Walker)已證實Google將致力於協助美國國防部應用AI技術,並強調Google對AI軍事用途的支持,與其他主要AI實驗室的做法一致。CAISI主任克里斯·法爾(Chris Fall)則強調,獨立且嚴謹的測量科學對於理解前瞻性AI及其國安影響至關重要。特朗普政府據報導正研擬一項以網路安全為重點的行政命令,旨在成立一個監管組織,負責制定AI模型標準。該政府此前曾因Anthropic要求其技術不得用於戰爭或大規模監控目的,而將Anthropic及其AI聊天機器人Claude列為國家安全供應鏈風險,顯示其對AI應用的嚴格態度。


在 Google 搜尋的熱門報導中優先看到商傳媒
加入為 Google 偏好來源